((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
*
OpenAI s'engage à établir un point de contact direct avec les forces de l'ordre
*
Le fabricant de ChatGPT s'engage à améliorer la détection des contrevenants récidivistes
*
L'entreprise affirme que le tireur présumé de l'école a utilisé un deuxième compte
*
Dans le cadre d'un protocole amélioré, OpenAI aurait signalé le compte du tireur présumé aux forces de l'ordre
(Ajout d'un commentaire du cabinet du ministre au paragraphe 5) par Ryan Patrick Jones et Bhargav Acharya
OpenAI a déclaré jeudi qu'elle mettrait en place un point de contact direct avec les forces de l'ordre canadiennes et améliorerait la détection des récidivistes de sa politique en matière d'"activités violentes" afin de renforcer les protocoles de sécurité à la suite d'une récente fusillade dans une école .
Le fabricant de ChatGPT a détaillé ces mesures dans une lettre adressée au ministre canadien chargé de l'intelligence artificielle, Evan Solomon.
Ann O'Leary, vice-présidente de la politique mondiale d'OpenAI, a rédigé cette lettre après que les ministres canadiens ont exhorté cette semaine le fabricant de ChatGPT à renforcer rapidement ses protocoles de sécurité et ont averti qu'Ottawa procéderait à des changements par voie législative si l'entreprise ne le faisait pas.
"Nous restons déterminés à coopérer avec les autorités chargées de l'application de la loi dans le cadre de l'enquête sur la tragédie de Tumbler Ridge, et nous nous engageons à poursuivre notre partenariat avec les gouvernements fédéral et provincial", a déclaré Mme O'Leary, en faisant référence à la ville de Colombie-Britannique où la fusillade s'est produite.
Ottawa examine la lettre de l'OpenAI et fera part de ses commentaires dans les prochains jours, a déclaré un porte-parole du ministre Solomon.
Les ministres canadiens ont convoqué l'équipe de sécurité d'OpenAI pour des discussions cette semaine après que la société a déclaré qu'elle n'avait pas contacté la police au sujet d'un compte appartenant au tireur présumé, Jesse Van Rootselaar, qu'elle avait banni.
Jesse Van Rootselaar, 18 ans, est soupçonnée d'avoir tué huit personnes le 10 février avant de s'enlever la vie à Tumbler Ridge. OpenAI a déclaré avoir banni son compte ChatGPT l'année dernière en raison de violations de sa politique.
L'entreprise a indiqué que le compte avait été signalé par des systèmes qui identifient "les utilisations abusives de nos modèles en faveur d'activités violentes", mais n'a pas fourni d'autres détails. OpenAI a déclaré que les problèmes ne répondaient pas à ses critères internes de signalement aux forces de l'ordre.
Jeudi, Mme O'Leary a déclaré qu'en vertu du "protocole amélioré de signalement aux forces de l'ordre" de l'entreprise, elle aurait signalé à la police l'interdiction initiale du compte en juin si elle avait été découverte aujourd'hui.
Elle a également indiqué que la société avait découvert que Mme Van Rootselaar avait utilisé un deuxième compte, et qu'elle l'avait communiqué aux services de police.
"Nous nous engageons à renforcer nos systèmes de détection afin de mieux prévenir les tentatives de contournement de nos mesures de protection et d'identifier en priorité les contrevenants présentant les risques les plus élevés", a déclaré Mme O'Leary.
L'entreprise s'est également engagée à évaluer périodiquement les seuils utilisés par ses systèmes automatisés pour identifier les activités violentes potentielles des utilisateurs.
Les experts en criminalité ont fait remarquer que si un examen plus approfondi des plateformes d'IA et des médias sociaux est nécessaire, la police ou d'autres autorités pourraient avoir manqué d'autres occasions d'éviter l'une des pires tueries de masse au Canada.
La police a déclaré que Mme Van Rootselaar avait des antécédents de problèmes de santé mentale et qu'elle avait retiré puis restitué des armes à feu de son domicile.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer